Таксономия на нейронных сетях

Алгоритм

Реализован один из вариантов нейронных сетей Кохонена - метод растущего нейронного газа. Технология разбития на таксоны двухэтапная. Вначале методом растущего нейронного газа все объекты разбиваются на достоточно большое (заданное пользователем) число классов. Затем используется один из методов иерархического объединения (кластеризация) полученных классов. При этом пользователь заранее указывает, на сколько классов в результате должно быть разбито множество объектов.

Иерархическая кластеризация в общем случае строит ряд разбиений исходного множества объектов, имеющих ассоциированный вектор свойств, где каждое следующее разбиение является модификацией предыдущего с объектами некоторых двух кластеров, объединёнными в один (либо, наоборот, один кластер разбивается на два). Вид иерархической кластеризации, где на каждом шаге происходит объединение двух кластеров, называется агломеративным.

На данный момент в ГИС INTEGRO реализованы следующие алгоритмы кластеризации: метод одиночной связи, центроидный взвешенный метод и метод Варда.

Метод одиночной связи - наиболее простой для понимания. Алгоритм - итеративный. На первом шаге каждый объект помещается в единичный кластер так, что в каждом кластере имеется по одному объекту, и каждый объект принадлежит одному кластеру. Далее, алгоритм итеративно выполняет следующую процеруду до тех пор, пока не останется один кластер, включающий все объекты:

1) Выбрать два кластера S_i, S_j таких, что расстояние между ними, взятое по метрике одиночной связи, является минимальным среди всех возможных пар: (i,j) = argmin_ijdist(S_i, S_j).

2) Поместить объекты из кластеров S_i, S_j в кластер S_k, и не рассматривать кластеры S_i и S_j в дальнейших итерациях.

Метрика одиночной связи выражает расстояние между двумя кластерами S_i и S_j как минимальное евклидово расстояние между любыми парами объектов, такими что объекты из этих пар принадлежат различным кластерам: , где x_p – вектор свойств объекта p.

Таким образом, строится ряд разбиений, где каждое следующее разбиение содержит на единицу меньше кластеров. Параметр количество кластеров задаёт итерацию, на которой процедуру кластеризации следует остановить.

Взвешенный центроидный метод похож на метод одиночной связи, но метрика соответствует евклидовому расстоянию между центрами кластеров:

Взвешенность метода обозначает, что метрика взвешивается по количеству кластеров по следующей формуле:

Этот метод стремится объединять малые кластеры в большие и этим избегает создания большого количества малых периферийных кластеров и одного большого.

Метод Варда аналогичен жадному алгоритму (алгоритм, заключающийся в принятии локально оптимальных решений на каждом этапе, допуская, что конечное решение также окажется оптимальным.) , минимизирующему внутригрупповую дисперсию. Метрика имеет следующий вид:

, где D[S_i] имеет смысл дисперсии векторов признаков, принадлежащих кластеру. Метод имеет то же свойство, что и взвешенный центроидный метод, – избегание создания множества малых кластеров.

Параметры

Количество нейронов - количество нейронов растущего нейронного газа.

Алгоритм кластеризации - Доступны следующее алгоритмы иерархического объединения "Метод Варда","Агломеративный центроидный метод", "Метод одиночной связи".

Количество классов - Конечно количество классов на которое должно быть разбито множество объектов

Название свойства результата - название свойства в которое будет записан результат.

Рис1. Форма задания параметров таксономии для метода Таксономия на нейронных сетях